Las soluciones de GIGABYTE basadas en AMD llevan la refrigeración de servidores al límite de la IA

El desafío de la infraestructura de IA

La Inteligencia Artificial exige cada vez más recursos, y eso plantea un reto importante para las infraestructuras de TI. Cuando hablamos de centros de datos, el aumento de la potencia de cálculo trae consigo problemas de densidad, un altísimo consumo de energía y, sobre todo, una enorme generación de calor que hay que disipar.

Las soluciones integrales basadas en AMD de GIGABYTE van un paso más allá de ofrecer servidores sueltos, presentando un catálogo completo de infraestructura de IA capaz de cubrir desde instalaciones empresariales hasta despliegues a exaescala. En este artículo, repasaremos las distintas estrategias de refrigeración que ofrecen para mantener todo bajo control.

Gigabyte EIA DLC (G4L3-ZX1-LAT4) Infraestructura de IA a exaescala y Refrigeración líquida directa

Para aquellas empresas que necesitan montar grandes instalaciones de IA con la máxima capacidad, el modelo a considerar es el rack Gigabyte EIA DLC con módulos G4L3-ZX1-LAT4. No estamos hablando de un servidor individual, sino de una infraestructura de IA completa.

Su punto más destacado es la integración de un sistema de Refrigeración Líquida Directa (DLC) que cubre de forma simultánea CPU y GPU, incorporando además detección de fugas. Esta tecnología permite conseguir la mayor densidad posible en el rack, orientándose directamente a hyperscalers y despliegues masivos. Al llevar el líquido directamente a los componentes clave, evita que la temperatura merme el rendimiento bajo cargas extremas.

Esta capacidad de disipación térmica es lo que permite que cada uno de sus módulos aloje 8 aceleradores AMD Instinct MI355X refrigerados por líquido. El cálculo principal de cada módulo recae sobre una configuración de doble procesador AMD EPYC de las series 9005 o 9004, junto  a memoria DDR5 RDIMM de 12 canales distribuida en un total de 24 ranuras DIMM.

Cada módulo de este servidor cuenta con una conectividad base de dos puertos LAN de 10Gb/s (Intel X710-AT2) y ofrece un enorme margen de expansión mediante 4 ranuras FHHL PCIe Gen5 x16 de doble ranura y 8 ranuras FHHL PCIe Gen5 x16 de ranura simple. En cuanto al almacenamiento, tenemos 8 bahías de 2,5 pulgadas Gen5 NVMe extraíbles en caliente (hot-swap) para facilitar el reemplazo de discos sin interrupciones, acompañadas de dos conexiones internas M.2 PCIe Gen3.

Finalmente, para sostener las grandes necesidades energéticas que requiere este hardware, GIGABYTE ha integrado un grupo de fuentes de alimentación redundantes (3+3) de 5200W con certificación 80 PLUS Titanium. Todo este conjunto se presenta en un equipo que, además, incluye materiales reciclados (PCR/PIR) en su fabricación.

Gigabyte G893-ZX1-AAX4: El máximo rendimiento para entrenamiento IA

Si buscamos el máximo rendimiento en la computación, el G893-ZX1-AAX4 es el modelo más avanzado de la marca en este segmento. Está diseñado en torno a una configuración de doble procesador AMD EPYC de las series 9005 o 9004, encargados de gestionar 8 aceleradores OAM AMD Instinct MI355X. Esta configuración lo hace ideal para el entrenamiento de grandes modelos de lenguaje (LLM) y cargas de trabajo exigentes en centros de datos.

Para soportar este nivel de cálculo, el servidor integra 24 módulos de memoria RDIMM DDR5 de 96 GB a 6400 MT/s de SK hynix. Estas memorias están construidas sobre DRAM de 24 Gb en 1a-nm y optimizadas específicamente para IA, nube y centros de datos. La red determina el rendimiento real del conjunto, por lo que este servidor es compatible con las tarjetas de red AMD Pensando Pollara 400 AI NIC, complementando a sus dos puertos LAN de 10 Gb/s (Intel X710-AT2).

A nivel de almacenamiento y expansión, incluye 8 bahías de 2,5 pulgadas Gen5 NVMe extraíbles en caliente, dos ranuras M.2 PCIe Gen3 y múltiples conexiones PCIe Gen5 x16 (4 de doble ranura y 8 de una sola ranura). Todo este hardware se alimenta mediante un masivo conjunto de fuentes redundantes (6+6) de 3000W con certificación 80 PLUS Titanium.

 G294-Z22-AAP2: AMD EPYC 9005/9004 con hasta 8 GPUS AMD Instinct MI350P

Como alternativa para aquellas organizaciones que buscan implementar aceleración avanzada sin dar el salto inmediato a la refrigeración líquida a escala de rack, el modelo G294-Z22-AAP2 es una opción más amigable para entornos empresariales tradicionales, con toda la potencia de las aceleradoras Instinct MI350P de AMD.

Este equipo destaca por su gran flexibilidad en la configuración de hardware. Con una placa base impulsada por un único procesador AMD EPYC de las series 9005 o 9004 y 12 canales de memoria DDR5 RDIMM (con 12 ranuras DIMM), el servidor soporta la instalación de hasta 8 tarjetas PCIe Gen5 de doble ranura. Entre las opciones de aceleración compatibles encontramos 4 tarjetas PCIe AMD Instinct MI350P, 8 unidades AMD Radeon AI PRO R9700S, e incluso soluciones basadas en NVIDIA, como 4 GPUs H200 NVL con puente NVLink de 2 vías o 4 RTX PRO 6000 Blackwell Server Edition.

La conectividad de red se resuelve con dos puertos LAN de 10Gb/s mediante el controlador Broadcom BCM57416. Para el almacenamiento, dispone de 4 bahías Gen5 NVMe/SATA/SAS-4 y otras 4 bahías SATA/SAS-4 de 2,5 pulgadas, todas extraíbles en caliente, ofreciendo opciones versátiles sin necesidad de apagar la máquina, junto a dos puertos M.2 PCIe Gen5 x4. Su alimentación depende de dos fuentes redundantes de 3000W 80 PLUS Titanium, garantizando la estabilidad bajo cargas de trabajo pesadas en un equipo fabricado utilizando materiales reciclados.

Gigabyte W793-ZU0-LA71: Refrigeración líquida sin necesidad de modificar tu centro de datos

 Sabemos que no todas las empresas tienen la capacidad de reconstruir sus instalaciones para añadir conexiones de agua y complejas tuberías. Para estos casos, el servidor en formato torre W793-ZU0-LA71 es una opción fantástica. Se trata de un sistema impulsado por AMD que integra refrigeración líquida de circuito cerrado (closed-loop) con detección de fugas para mayor seguridad. Su mayor ventaja es que nos ofrece gran parte de los beneficios de disipación térmica del líquido, pero sin requerir ninguna toma de agua en las instalaciones. Una función especialmente útil para los administradores de TI que necesitan mantener las temperaturas a raya sin lidiar con obras o configuraciones engorrosas en su sala de servidores.

Este sistema de refrigeración va más allá de enfriar el procesador, ya que el circuito cerrado cubre tanto la CPU como la GPU, permitiendo instalar hasta 4 tarjetas gráficas AMD Radeon AI PRO R9700S refrigeradas por líquido, apoyadas por un procesador AMD EPYC de las series 9005 o 9004 y 12 canales de memoria DDR5 RDIMM (con 12 ranuras DIMM). Todo ello orientado a darnos la máxima potencia de cálculo para IA en un equipo de formato torre, sin cuellos de botella, ya que incluye además múltiples ranuras PCIe Gen5 x16 tanto para las gráficas como para ampliar las capacidades de red, complementando a sus dos puertos LAN integrados de 10 Gb/s gestionados por la  Intel X550-AT2.

Por otro lado, la velocidad de los datos es clave en la Inteligencia Artificial. Por eso, este modelo es compatible con los SSD Phison Pascari AI200E aiDAPTIVCache de 8TB para caché, y permite montar hasta cuatro unidades eSSD Phison Pascari X202Z de 2,5 pulgadas. Estos discos ofrecen rendimiento  capaz de alcanzar los 10.000 MB/s de escritura con una resistencia extrema de 60 DWPD, asegurando que el servidor pueda soportar operaciones intensivas y sostenidas en el tiempo.

Para rematar este equipo, el apartado energético cuenta con fuentes de alimentación redundantes (2+1) de 2400W con certificación 80 PLUS Titanium que, al igual que el resto de componentes mencionados, también están refrigeradas por líquido.

Gigabyte B353-C60-LAS1: Máxima densidad con 20 nodos AMD en tan solo 3U

Finalmente, terminamos el repaso con el servidor de alta densidad B353-C60, un equipo pensado para entornos donde el espacio en el rack es caro y limitado, una situación muy habitual en los centros de datos europeos.

Estamos hablando de un equipo diseñado con un sistema de acceso frontal de 10 módulos blade que alberga un total de 20 nodos, todo ello comprimido en un chasis de tan solo 3U. Esto supone una densidad de computación superior a la habitual.

Para disipar el calor en un espacio tan reducido de forma eficiente, GIGABYTE ofrece varias alternativas para la máxima flexibilidad según la instalación de la empresa: el chasis está disponible tanto con refrigeración líquida de circuito cerrado con colector integrado (170 W) como en versiones estándar de refrigeración por aire (65 W). Gracias a esto, conseguimos meter mucha más capacidad de cálculo en menos espacio, reduciendo los costes generales de la infraestructura y aprovechando al máximo cada unidad de nuestro datacenter.

A nivel de hardware, cada uno de estos 20 nodos funciona de manera independiente. Cada nodo está impulsado por un procesador único AMD EPYC de la serie 4005 o un procesador AMD Ryzen de la serie 9000. Le acompañan 4 ranuras DIMM para montar memoria DDR5 de doble canal, compatibles con módulos ECC y Non-ECC UDIMM, lo que permite adaptar la configuración de memoria a los requisitos de integridad de datos de cada entorno.

El apartado del almacenamiento y la red por nodo también está resuelto de manera individual. Cada módulo de computación integra dos ranuras M.2 PCIe Gen5 x4 para discos de alta velocidad. En cuanto a la conectividad, cada nodo dispone de dos puertos LAN SFP28 de 25 Gb/s y un puerto LAN de 1 Gb/s. La gestión del chasis al completo se realiza a través de dos puertos LAN CMC.

Finalmente, para sostener el alto consumo energético de este conjunto de hardware, el equipo se apoya en un grupo principal compuesto por cuatro fuentes de alimentación redundantes de 3200 W con certificación 80 PLUS Titanium.

La infraestructura que se adapta a cada despliegue

Como hemos visto, el extenso catálogo de GIGABYTE cubre un gran número de entornos profesionales, demostrando que una única solución no sirve para todas las instalaciones de IA modernas. Con esta propuesta, la compañía se posiciona claramente como un proveedor integral de infraestructura IA, y no como un simple vendedor de servidores. Al abarcar desde el diseño de la placa base hasta la ingeniería de los flujos de líquido de la refrigeración, facilitan enormemente el despliegue para los responsables de TI y los integradores de sistemas.

Todo dependerá de las necesidades concretas de cada organización y de su presupuesto espacial y energético. Tenemos modelos de todo tipo para sacar el máximo partido a ecosistemas de alto rendimiento como AMD Instinct: desde equipos empresariales refrigerados por aire y plataformas de circuito cerrado (closed-loop) hasta completas infraestructuras a escala de rack con refrigeración líquida directa (DLC) enfocadas a las cargas de trabajo masivas y la computación a exaescala.

Así, cualquier empresa puede diseñar y montar su centro de datos eligiendo exactamente el enfoque que mejor se adapte a sus requisitos de rendimiento, eficiencia energética y a las limitaciones físicas de sus instalaciones. Si quieres conocer en detalle cómo mantener bajo control las temperaturas de tu próxima gran implementación, puedes descubrir todo el catálogo en las plataformas de GIGABYTE Advanced Cooling y su ecosistema Gigapod.